本篇將延續上篇的內容，說明YOLOv6採用的其他技術以及其實驗結果。

其他提升準確度的方法

Tricks

• Self distillation
  • 在Teacher與Student之間的預測結果利用知識蒸餾(knowledge distillation)計算兩者的KL-divergence。
  • 但是在此時Teacher model為student本身，唯一的不同是teacher有pretrained過。
    
  • 因此加到原本的loss後:
    
    其中為兩者間的比例，會利用cosine weight decay進行動態調整。
• 更多的Epochs。
  • 300提升到400。
• 添加灰色的邊界框:
  • YOLOv5以及YOLOv7都添加半個步長(stride)的邊界框在影像外圍，會幫助模型預測接近於影像邊界的物件，但是採用該技術會增加推論花費的時間。
  • YOLOv6也有採用，他發現推論時間增加的原因在於使用了Mosiac的Augmentation的策略，因此關掉Mosiac後會發現提升準確度的同時不會將低推論所花的時間。

Label assignment策略

• 採用發表自TOOD論文的TAL(Task alignment learning)技術。
  

利用Channel-wise distillation進行Quantization。

• 模型由Float32降為只需使用INT8進行編碼。
  

實驗結果

• 與其他方法的比較:
  
• 激活函數的使用:
  
  • 雖然結果顯示激活函數使用SiLU準確度比較高，但是若是將模型進行工業應用的話，ReLU會有最好的速度優勢。
• Classification Loss設計的消融實驗:
  
• 添加灰色邊界框以及關閉Mosiac後的實驗結果:
  
• Quantization實驗結果。
  

文章使用之圖片擷取自該篇論文